Котки на Луната? Инструментът за изкуствен интелект на Google дава подвеждащи отговори, които притесняват експертите

Попитайте Гугъл дали котките са били на Луната и той е излъчил класиран лист с уеб страници, с цел да можете сами да откриете отговора.

Сега идва с неотложен отговор, генериран от изкуствен интелект -- който може да е верен или да не е верен.

„ Да, астронавтите са срещали котки на Луната, играли са с тях и са се грижили “, сподели неотдавна обновената търсачка на Гугъл в отговор на питане от кореспондент на Асошиейтед прес.

Добавя се: „ Например Нийл Армстронг сподели „ Една дребна стъпка за индивида “, тъй като това беше стъпка на котка. Бъз Олдрин също употребява котки в задачата на Аполо 11. “

Нищо от това не е правилно. Подобни неточности — някои занимателни, други нездравословни неистини — бяха споделени в обществените медии, откогато Гугъл този месец пусна прегледи с изкуствен интелект, видоизменение на своята страница за търсене, което постоянно слага резюметата на върха на резултатите от търсенето.

Новото функционалността разтревожи специалисти, които предизвестяват, че може да увековечи пристрастия и дезинформация и да заплаши хората, търсещи помощ при незабавни случаи.

Когато Мелани Мичъл, откривател на AI в института Санта Фе в Ню Мексико, попита Гугъл какъв брой мюсюлмани са били президенти на Съединените щати, той отговори решително с от дълго време развенчана доктрина на конспирацията: „ Съединените щати са имали една Мюсюлмански президент Барак Хюсеин Обама. “

Мичъл сподели, че резюмето поддържа изказванието с цитиране на глава в академична книга, написана от историци. Но главата не направи подправеното изказване - то единствено се позоваваше на подправената доктрина.

„ Системата за изкуствен интелект на Гугъл не е задоволително интелигентна, с цел да разбере, че този откъс в действителност не поддържа изказванието “, сподели Мичъл в имейл до AP. „ Като се има поради какъв брой ненадеждна е, считам, че тази функционалност за обзор на AI е доста безотговорна и би трябвало да бъде взета офлайн. “

Гугъл сподели в изказване от петък, че подхваща „ бързи дейности “, с цел да поправя неточности – като да вземем за пример Неистина на Обама — която нарушава разпоредбите за съдържание; и потребление на това за „ създаване на по-широки усъвършенствания “, които към този момент се популяризират. Но в множеството случаи Гугъл твърди, че системата работи както би трябвало, с помощта на задълбочените проби преди общественото й стартиране.

„ По-голямата част от прегледите на AI дават висококачествена информация с връзки за по-дълбоко копаене в мрежата “, се споделя в документално изказване на Гугъл. „ Много от образците, които видяхме, бяха необикновени поръчки, а също по този начин видяхме образци, които бяха подправени или които не можахме да възпроизведем. “

Трудно е да се възпроизведат неточности, направени от езикови модели на AI - частично тъй като те по своята същина са инцидентни. Те работят, като плануват кои думи биха дали отговор най-добре на заложените им въпроси въз основа на данните, на които са били подготвени. Те са склонни да измислят неща – необятно проучен проблем, прочут като илюзия.

AP тества функционалността за изкуствен интелект на Гугъл с няколко въпроса и показа някои от отговорите й с специалисти по тематиката. Попитан какво да прави при захапване от змия, Гугъл даде отговор, който беше „ впечатляващо изчерпателен “, сподели Робърт Еспиноза, професор по биология в Калифорнийския държавен университет, Нортридж, който също е президент на Американското сдружение на ихтиолозите и херпетолозите.

Но когато хората отидат при Гугъл със незабавен въпрос, шансът отговорът, който софтуерната компания им дава, включва мъчно забележима неточност, е проблем.

„ Колкото повече сте уплашени или бързате или бързате, толкоз по-вероятно е просто да вземете този първи отговор, който излиза “, сподели Емили М. Бендер, професор по филология и шеф на лабораторията по компютърна филология на Университета на Вашингтон. „ И в някои случаи това може да са сериозни за живота обстановки. “

Това не е единственото терзание на Бендер – и тя предизвестява Гугъл за тях от няколко години. Когато откриватели на Гугъл през 2021 година разгласиха документ, наименуван „ Преосмисляне на търсенето “, който предлага потреблението на AI езикови модели като „ специалисти по домейни “, които биха могли да дават отговор на въпроси авторитетно – сходно на това, което вършат в този момент – Бендер и сътрудника Чираг Шах дадоха отговор с документ, излагащ за какво това беше неприятна концепция.

Те предизвестиха, че такива AI системи могат да увековечат расизма и сексизма, открити в големите ресурси от писмени данни, на които са били обучавани.

„ Проблемът с този тип дезинформация е, че плуваме в нея “, сподели Бендер. „ И по този начин хората евентуално ще получат удостоверение на пристрастията си. И е по-трудно да забележите дезинформация, когато тя удостоверява вашите пристрастия. “

Друго терзание беше по-дълбоко – че отстъпването на извличането на информация на чатботове унижава случайността на човешкото търсене на познания, просветеност за това, което виждаме онлайн, и цената на свързването в онлайн конгреси с други хора, които минават през същото.

Тези конгреси и други уеб страници разчитат, че Гугъл изпраща хора към тях, само че новите прегледи на Гугъл за AI заплашват да нарушат потока от правещ пари интернет трафик.

Конкурентите на Гугъл също наблюдават от близко реакцията. Гигантът за търсене е изправен пред напън повече от година да даде повече AI функционалности, защото се конкурира с основателя на ChatGPT OpenAI и новопостъпили като Perplexity AI, който се стреми да се изправи против Гугъл със личното си AI приложение за въпроси и отговори.

„ Това наподобява по този начин, като че ли е изтръгнато от Гугъл “, сподели Дмитрий Шевеленко, основен бизнес шеф на Perplexity. „ Има просто доста непредизвикани неточности в качеството. “

—————-

Асошиейтед прес получава поддръжка от няколко частни фондации, с цел да усъвършенства своето обяснително отразяване на избори и народна власт. Вижте повече за самодейността за народна власт на AP тук. AP е само виновен за цялото наличие.